Năm 1914 khi cuộc Chiến tranh thế giới thứ nhất nổ ra, Mata Hari đến Berlin (thủ đô nước Đức) lưu diễn. Vốn ưa những chuyện phiêu lưu mạo hiểm và để có tiền bạc rủng rỉnh, bà đã nhận lời làm gián điệp cho Cục Tình báo Đức với mật hiệu H.21. Nhiệm vụ của H.21 là thu thập tin tức hoạt động quân sự của Pháp thông báo cho cơ quan tình báo Đức. Tuy nhiên chính Elsa Shragmuyller người phụ trách trực tiếp H21 cho rằng toàn bộ những tin tức mà H.21 cung cấp không bao giờ được sử dụng cả vì chúng không có ý nghĩa gì về mặt kinh tế, chính trị lẫn quân sự.

Tháng 8 năm 1916, Mata Hari gặp viên đại uý Ladou, sĩ quan của Cục Phản gián Pháp và đã nhận lời hợp tác với cơ quan tình báo Pháp với nhiệm vụ là đến Brussels, Bỉ (đang bị quân Đức chiếm đóng) để thu thập những tin tức cho người Pháp.

Trên đường đến Bỉ, Mata Hari bị cảnh sát Anh bắt nhầm. Sau khi thẩm tra họ thả Mata Hari đồng thời báo cho Pháp biết bà là điệp viên của Đức. Ladou yêu cầu bà trở về Paris song bà lại đến Madrid (Thủ đô Tây Ban Nha, nước trung lập). Ở Madrid, Mata Hari làm quen với hai tùy viên quân sự của Pháp và Đức đang hoạt động tại đây. Những thông tin mà bà khai thác được từ viên tuỳ viên quân sự Đức được thông báo cho tuỳ viên quân sự Pháp và ngược lại.